Lecture 03 & Reading 2.4, 2.5 矩阵乘法逆矩阵

方阵是否可逆？如何求逆矩阵 --- 提到了增广矩阵线性变换

矩阵乘法

其实这里是矩阵乘法的更一般的描述，计算方法，和数值方面的理解

首先什么条件相乘？ -- the number of columns of A = the number of rows B 不一定是方阵

相乘之后啥样？

比如A是n by m的矩阵，B是m by p的矩阵，乘完实际上是n by p的矩阵

矩阵乘法的基本准则算法

这里我们用一个具体的例子来说明

\begin{array}{r} A = [\begin{array}{c} 1 & 0 & 2 \\ - 1 & 3 & 1 \end{array}], B = [\begin{array}{c} 2 & 1 & 0 & - 1 \\ 3 & 0 & 1 & 2 \\ 1 & - 1 & 2 & 0 \end{array}] \\ C = A B = [\begin{array}{c} 4 & - 1 & 4 & - 1 \\ 8 & - 2 & 5 & 7 \end{array}] \end{array}

其实在这里C矩阵的一个元素比如 $C_{1, 2}$ 事实上是由A中的第1行和B中的第2列点乘的一个结果

单个元素计算 -- 有助于求解应对考试

注意支持分块

矩阵乘法的理解: 列向量

其实这个想法跟线性代数的本质：矩阵乘法与线性变换复合的联系中的是一样的，只不过那里面是方阵

同样还是上面的那个例子，其实能观察到 B中的列数和C中的列数是相同的而C中列的长度和A是相同的，而B中列的长度和A的列数相同，其实columns of C are combinations of columns of A -- C中的列是对A中的列的一种线性组合，而按什么组合，按的是B中的线性关系进行组合的，比如说，C中的第一列就是A中的三个列向量按B中的第一个列向量(2, 3, 1)线性组合

矩阵乘法的理解: 行向量

还是上面的例子

这个想法是 rows of C are combinaitons of rows of B -- C中的行是对B中各行的线性组合，而线性关系是A中的行向量决定的

矩阵乘法的理解：一列乘一行

这里的想法是，一行乘一列实际上就是一个矩阵

比如上面的例子

[\begin{matrix} 1 \\ - 1 \end{matrix}] [\begin{matrix} 2 & 1 & 0 & - 1 \end{matrix}] = [\begin{matrix} 2 & 1 & 0 & - 1 \\ - 2 & - 1 & 0 & 1 \end{matrix}]

如果以前面的列向量来看的话，实际上是讲行向量的系数分别乘在了这个列向量上，如果以后面的行向量来看的话，实际上是前面里列向量的两行作为系数乘在了行向量上

cool.

逆矩阵

方阵是否可逆？

首先逆矩阵是针对方阵来说的

在上一个Lecture最后提到了所谓逆矩阵就像逆函数一样

上一个Lecture提到的是 $E^{- 1} E = I$

其实方阵是否可逆有很多判断的方法，包括其实我已经学过线性代数一遍了，比如通过矩阵的秩，通过行列式，但本质上都是看列向量是否线性相关，换句话说就是看是否章程了整个维度的平面空间

A = [\begin{matrix} 1 & 3 \\ 2 & 6 \end{matrix}]

比如说对于矩阵就是一个不可逆的矩阵，我们称作奇异矩阵

上个Lecture提到了E是一种行变换，那是否有行变换能把A变成 $I$ 呢

事实证明没有比如无论怎么变都不会把第一行的(1 3)变成(1 0)反而是能变成(0 0) -- 所以能否通过行变换变成O矩阵是判断矩阵是否可逆的一种方法

这里的核心原因在于不管是把A当做行向量来看还是列向量来看，都是成比例的，换句话说，它做线性组合最后的结果向量只会在一条直线上，其实这两个向量有一个是躺平的，没有章成xy plane

求逆矩阵

对于可逆的矩阵，怎么求逆矩阵

高斯提到了一种增广矩阵的办法，这里的核心思想是

[\begin{array}{cc} A & I \end{array}] \to [\begin{array}{cc} I & A^{- 1} \end{array}]

原理其实很简单，通过行变换(左乘各种E矩阵)，把A变成I矩阵，这时候做的这个多个行变换左乘E矩阵的总和效果 E'矩阵的效果其实就是 $A^{- 1}$ 那么同样的行变换作用到 $I$ 矩阵上，实际上最后得到的结果就是 $A^{- 1}$

AB可逆 (AB)的逆

(A B)^{- 1} = B^{- 1} A^{- 1}

事实上

(A B) (B^{- 1} A^{- 1}) = I

因为之前讲过可以任意结合(结合律), 可以变成 $(A (B B^{- 1}) A) = I$

对于逆来说你会发现 $(B^{- 1} A^{- 1}) (A B) = I$ 是可以颠倒的，但是对于一般的矩阵来说AB不一定等于BA